REVES: REvision and VErification--Augmented Training for Test-Time Scaling
REVES:面向测试时扩展的修订与验证增强训练
🧭 测试时扩展训练 · 多步推理修订与验证
Northwestern University · Amazon AGI · Qualcomm AI Research · University of Minnesota
从成功修正轨迹中抽取“接近正确”的中间步骤,构造修订与验证提示进行两阶段交替训练,显著提升多步推理测试时性能
📌 工作参考价值(4 点)
- 多步修正与验证分离:将中间错误转化为独立的修订和验证提示,可借鉴到 Agent 自我修正流程中,将生成改进与错误检测解耦,提升多轮交互的可靠性。
- 高效数据利用:利用成功修正轨迹中的 near-miss 样本生成 off-policy 训练数据,适用于推荐 Agent 的在线学习,减少昂贵的长链采样开销。
- 两阶段交替训练:在线数据增广与策略优化交替的框架,可迁移到需要策略迭代的推荐系统(如动态创意优化、查询改写),平衡探索与利用。
- 约束泛化能力:在约束满足任务上的泛化表现提示,该方法能增强模型对结构化规则的遵循能力,可用于推荐系统中的合规性校验或商品描述约束生成。